Thuật ngữ “Thẩm giáo Trung cổ” trỏ những toà dị giáo thành lập vào khoảng năm 1184 chống lại các phong trào đại chúng trên khắp châu Âu mà Giáo hội xem là bội giáo hay tà đạo, đặc biệt phái Cathar ở miền nam nước Pháp và phái Waldo ở miền nam nước Pháp và miền bắc nước Ý. Cơ sở pháp luật của một số hoạt động thẩm giáo được Giáo hoàng Innôcentê IV cấp vào năm 1252. Toà thẩm giáo được tra tấn trong một vài trường hợp để bắt những tín đồ dị giáo nhận tội,[17] nhưng Nicholas Eymerich là thẩm giáo đã viết quyển Sổ tay thẩm giáo phản đối rằng: “tra tấn chẳng những sai lệch mà còn vô ích vậy”. Năm 1256 thẩm giáo được miễn tội tra tấn.[18]

Thế kỷ 13 Giáo hoàng Grêgôriô IX giao lại nhiệm vụ thẩm giáo cho Dòng Đa Minh và Dòng Phan Sinh. Cuối thời Trung cổ chỉ còn Anh và Castile là hai nước lớn ở phương Tây không có toà thẩm giáo. Hầu hết các thẩm giáo là tu sĩ chuyên dạy luật hay thần học trong trường đại học, xét xử cùng các giám mục và các “trợ thẩm giáo” là chức vị giống như bồi thẩm do tu sĩ giữ. Thủ tục hỏi tra của Toà phỏng theo thủ tục của các toà án Cổ La Mã.[19] Sau năm 1200 mỗi Toà do một Đại thẩm giáo cầm đầu đến giữa thế kỷ 19.[20]